Beyond Truncation: Rethinking LLM Decoding as Ensemble Pruning
超越截断：将 LLM 解码重新定义为集成剪枝
🧭 LLM 解码 · 集成剪枝
Institute of Statistics and Big Data, Renmin University of China · Big Data and Responsible Artificial Intelligence for National Governance, Renmin University of China · Center for Applied Statistics, Renmin University of China
提出 Mahalanobis-Ensemble Decoding，基于 token 嵌入相似度做集成剪枝，提升解码多样性且近乎零开销
📌 工作参考价值（4 点）
- 在电商/广告文案、搜索 query 推荐等文本生成场景，可直接作为解码端插件，用 token 语义相似度矩阵做候选剪枝，减少重复 token 和语义冗余，无需重新训练模型。
- 若业务中已有 LLM 生成候选商品描述、推送文案或 Agent 规划路径，可把 ME-Decoding 的 adaptive-bandwidth kernel 思路迁移到自有 token/item embedding 上，构造 Mahalanobis 距离驱动的多样性目标，提升候选集召回质量。
- 该方法强调 near-linear 复杂度和 early stopping，适合线上推理延迟敏感场景；在 beam search 或采样前对候选 token 做一次轻量剪枝，可作为低成本的多样性增强层。
- 对生成式推荐中的 Semantic ID 或多 token 生成路径，可用相似度矩阵动态 discount 冗余路径，缓解生成结果坍缩到高频 ID 或重复 token 的问题。